TikTok et le business des récits de faits divers dopés au deepfake

L’image est pour le moins perturbante : sur une vidéo TikTok, le visage de Josef Fritzl, vraisemblablement généré par une intelligence artificielle, s’anime. D’une voix synthétique, en français, le criminel autrichien raconte la séquestration et les viols qu’il a fait subir à sa fille et pour lesquels il a été condamné à la prison à vie.

« Abonne-toi, c’est ce que je devrais vous dire au milieu de cette histoire sombre », lance-t-il au milieu de la vidéo. Conçue avec la plate-forme d’intelligence artificielle (IA) baptisée D-ID et publiée par un petit compte, celle-ci a récolté une audience quasi nulle. En revanche, elle est représentative d’un format extrêmement populaire : un visage, appartenant à une personne réelle ou fictive et animé par l’IA, qui fait de la voyance, raconte un fait divers glauque ou un récit incroyable. Le Monde a ainsi recensé une centaine de comptes TikTok spécialisés dans ce format, dont certains affichent plusieurs centaines de milliers d’abonnés, et des vidéos en français, arabe, anglais, espagnol, allemand ou italien qui cumulent parfois des millions de vues.

Parmi ces formats, c’est celui du true crime, du fait divers, qui fait le plus parler, que ce soit dans Le Figaro ou Rolling Stone. Outre Josef Fritzl, ces comptes mettent régulièrement en scène Xavier Dupont de Ligonnès, le petit Grégory ou, plus récemment, Dominique Bernard, le professeur victime de l’attentat d’Arras. Ces pastilles émergent souvent dans la foulée des faits et surfent sur la popularité sur le réseau des vidéos en lien avec des affaires criminelles. Bien souvent, elles ne reprennent pas les visages des personnes impliquées, rarement suffisamment célèbres pour être connues des outils de génération d’images, mais plutôt d’hommes, de femmes et d’enfants fictifs.

Ces vidéos ne s’encombrent d’ailleurs même pas forcément de relater des histoires vraies, mais relayent aussi des récits sordides peu crédibles, voire totalement inventés. Certaines de ces chaînes TikTok ont ainsi fait leur spécialité des vidéos dans lesquelles des personnages féminins racontent avoir été agressés sexuellement ou violés par des animaux. Dans un cas étudié par Le Monde, la vidéo de l’histoire d’une femme violée par des dauphins, totalement fictive, a tant été reprise sur TikTok qu’elle a motivé la création d’articles sur des sites d’information… eux-mêmes générés par des IA.

Lire l’analyse : Article réservé à nos abonnés Modération en ligne : ce que nous apprennent les rapports de transparence de Facebook, Instagram, TikTok…

Ajouter à vos sélections

Business du clic et « dropshipping »

Si le true crime représente aujourd’hui la majeure partie des contenus utilisant ce format du « face caméra » généré par IA, le concept irrigue de nombreuses sections de TikTok. Parmi la centaine de chaînes analysées par Le Monde, certaines sont consacrées à la voyance et l’astrologie, délivrant des conseils mystiques ou des horoscopes avec des personnages de mauvaise qualité. D’autres font parler, là encore avec des résultats variables, des personnages historiques, qu’il s’agisse de stars de la chanson ou de Napoléon Bonaparte. On trouve même des chaînes religieuses mettant en scène des portraits de Jésus animés par IA.

Il vous reste 63.2% de cet article à lire. La suite est réservée aux abonnés.